babl: set babl_rel_avg_error to a high value on NaN
authorØyvind Kolås <pippin@gimp.org>
Mon, 25 Sep 2017 20:46:21 +0000 (22:46 +0200)
committerØyvind Kolås <pippin@gimp.org>
Mon, 25 Sep 2017 20:46:24 +0000 (22:46 +0200)
commit1081ca43b78bc7779337eb313edd84553a3cab24
treef078889ea801f00bf73fcbcd8fa33874ce8be1f7
parent53c61827a8dcd2c692ddc83626bb52ea24904c74
babl: set babl_rel_avg_error to a high value on NaN

In relation to bug #787441, if the sum of errors contain a nan the sum
is nan, we return pi as a much higher than expected average error to
indicate that this is not 0.0.
babl/babl-util.c